清华大学出版社《世界的下一个主宰：人工智能》

一、人工智能的诞生及发展

艾伦·图灵是英国数学家、逻辑学家、密码学家，对计算机科学的发展具有重大影响。他于1936 年提出了抽象计算“图灵机”，使算法的概念得以形式化，至今仍在许多理论和实践研究中得到应用。世人公认，图灵的科学成就为计算机科学，尤其是人工智能理论奠定了基础。于1950年发表了论文《计算机器与智能》，表明机器能够模拟人类行为并进行逻辑演算，如下棋。

1956年，在达特茅斯会议上，一些科学家、数学家和哲学家开始发展人工智能的概念，真正开创了人工智能时代。据说是基于中立性，约翰·麦卡锡选择了“人工智能”这个名字。就像会议提案说的那样，“该研究是基于这样的猜想，即学习的任一个方面或智能的任一特征在本质上都能被精确描述，从而能被机器所模拟”。

人工智能发展的新阶段始于20世纪80年代。最令人瞩目的是日本的第五代计算机系统（FGCS）研发项目，旨在使计算机能完成更困难的计算任务（Japan, 1984）。虽然此前的计算机通过在单一中央处理器（CPU）中增加逻辑单元来完成计算，日本科学家却希望赋予计算机新的功能。虽然该计算机极具商业潜力，但这一项目最终却未获成功: 截至1992年，日本政府对该项目累计投入8.5亿美元，然而在核心技术领域却毫无突破（Pan, 2016）。最终该项目经费耗竭，人工智能在一段时间里淡出了人们的视野。这次失败唯一的好处，是让所有人都知道，人工智能的发展离不开创新和高级软件的研发。

到20世纪90年代末，人工智能研究与机器人、人机互动结合在一起。科学家开始认真地谈论具有情感、能表达情绪的人工智能“代理”。这推动建立了一个叫作“情感计算”的新领域，旨在分析人类情绪反应，然后再用机器模拟出来。这也帮助改进了对话系统（聊天机器人）。

另一个突破发生在21世纪前10年，以英伟达公司发布的一款新图形处理单元为标志。第一次，计算机变得足够强大，能处理大数据集和建立复杂的神经网络结构，以满足一系列实际应用。这标志着深度学习加速应用的开始。

“机器学习”这一术语在2006年被首次提出，用于描述对文本的自动理解。一年后，斯坦福大学的研究人员开发出了ImageNet，一个用于视觉对象识别软件研究的大型可视化数据库。这些创新促进了计算机视觉、语音识别和机器翻译等技术的落地。

自2010年以来，硬件和软件技术的进步，为人工智能在日常生活中的应用铺平了道路。性能强劲的计算机处理器和显卡、智能手机和平板计算机，使各类用户能随时使用人工智能程序。例如，微软公司发布的Xbox内置Kinect，是第一个运用3D摄像头和传感器捕捉身体动作的游戏设备。

2011年，苹果公司发布了语音助手Siri。2014年，微软公司发布了语音助手Cortana。2015年亚马逊发布了智能音箱和语音助手Alexa。这些虚拟助手使用了一个自然语言接口，用于观察、应答和归纳，并向用户提出建议。

2012年，谷歌公司的研究人员训练了一个大型神经网络以识别猫的图像，包含16 000个处理器。训练材料是100万张未标记的YouTube视频图像。

2016年，谷歌DeepMind公司开发的阿尔法狗以4∶1的成绩击败李世石，李世石是世界上最优秀的专业围棋棋手之一。在那场比赛前，没有人相信一个单一的计算机程序能够击败如此优秀的围棋大师——但这还是发生了。这场胜利再一次证明了人工智能相比人类的优越性。

2018年，IBM公司组织了一次由人类和它的人工智能系统Project Debater之间的直播辩论。双方只有15分钟准备辩题，内容涉及远程医疗和太空计划等不同话题。结果，人工智能系统不仅仔细地聆听对手的观点，并且令人信服地以己方观点进行了回应。在训练人工智能掌握人类语言和思维的另一个试验中，基于人工智能的Project Debater竟能对原文进行引用，并针对前文的观点开玩笑。

人工智能无限潜力背后的机制究竟是什么？当人工智能达到人类水平时，我们就进入了“一般人工智能”时代，届时人工智能将复制人类用直觉解决问题的能力，并能从事科学发现。在未来，机器将能记忆所有输入的数据和设置的模式，还能快速处理大量信息。通过永久记忆大量数据，机器将超越大多数普通人，获得模式识别和归纳的能力。“一般人工智能”将完全自主地对环境中的问题进行反应。

随着人工智能应用的不断增多，人们正在见证一个新时代的诞生——人工智能时代，不断涌现的全新行业，以及医药、生物工程、机器人学、武器和太空探索领域的突破是其标志。

目前，人工智能这一术语虽然世人皆知，但人们对于人工智能的概念及其实际现象仍有很大的误解。流行文化中充斥着机器人疯狂起义的形象，而这只是作家幻想的骇人故事之一。当然也存在更为实际的顾虑，如对就业的影响，虽然有合理的依据但却被过分夸大了。

第一、第二和第三次工业革命都创造了新的通用技术，且迅速改变了一些基本问题的解决方式，如批量生产、交通和通信方式。同时也引发了创新能力和整体生产力的提升。第一次工业革命以蒸汽机为中心，带动了煤矿、冶金和钢铁，以及铁路和隧道建设的发展;第二次工业革命以电的发明为标志，推动了电信业的发展和全球石油和天然气行业的崛起，还使电报、电话、汽车和飞机进入了大众的生活;第三次工业革命的产物——信息技术，重塑了人们的生活方式，带来了计算机、互联网以及自动化的工作程序。

毫无疑问，人工智能的进步会变革人类文明，并成为人类生活不可分割的一部分。人工智能正重塑我们的世界、社会经济结构、市场和政治制度，以及它正如何影响我们的个人选择。

 二、人工智能对人类的影响

总的来说，人工智能的未来将为人类带来三大趋势。

第一个趋势是超级大国的出现。一些专家不仅预测一场新的冷战将会出现，更将人工智能的潜力（尤其在军事领域）与原子弹相互比较。

第二个趋势是影响力将从自然资源和金融公司转移到科技巨头手上，即是超级公司。

例如，华为是新一代5G通信技术的领头人。大多数操作系统和引擎，以及大量硬件和软件，都由Alphabet、微软、IBM和苹果公司开发或生产。在自动驾驶和航空航天领域，Alphabet子公司谷歌，以及特斯拉和太空探索技术公司是行业的领头人。脸书和腾讯这样的公司塑造了社交媒体和通信应用软件的市场趋势。亚马逊、易趣和阿里巴巴则主导了线上商品的零售和批发。超级公司的快速发展揭示了竞赛另一方面的新现实: 对资源的竞争已成为过去，对用户产生的大数据的争夺才是真正的竞争。

第三个更远的趋势指向著名的吉尔伽美什计划。如果该计划得到实施，一种基于超级人类的生物种群将在地球上出现。显然，这依赖于人工智能无休止的进步。在这样的背景下，最为关键的趋势将会像未来主义者和著名投资人（如雷·库兹韦尔和孙正义）预测的那样，是新“奇点”时代的到来——未来科技将发展到人类无法理解的地步。一些人猜测这将发生于2050年。 

三、人工智能的重要商业应用

如今，人工智能的实际应用早已渗透到各个行业，如金融业、医学图像处理和反欺诈。人工智能已开始取代传统行业的重要元素，同时也在医疗、法律和贸易等领域中扩大潜在价值。

例如，在医疗领域，人工智能早已能分析MRI和CT的成像数据，以用于疾病诊断、治疗和监控。

在商业领域，对于使用人工智能的公司来说，人工智能分析数据和预测结果的能力是一大优势。任何运算和分类的任务，以前需要几天甚至几个星期来完成，而现在通过算法只需要不到一秒就可以自动完成。人工智能还将有望实现采掘业的快速现代化，尤其是在能源领域。

这些技术、伦理和哲学正在使金融业发生翻天覆地的变化: 基本的金融服务在机器人顾问的帮助下正在走向自动化，同时，人工智能也被成功地用于检测欺诈、评估和管理风险。

人工智能系统的应用也在改变运输业。例如，向自动驾驶的成功过渡依赖于人工智能基础设施的建设。智慧城市是一个典型的例子，相比目前的城市，在这里车辆可以更早、更可靠地实现自动化。

不足为奇，人工智能市场正在飞速增长: 最近的预测表明，到2030年，人工智能应用将在全球创造高达15万亿美元的财富。

当然，另一方面人工智能也在改变政治进程，甚至是选举的过程。我们都熟知英国脱欧和2016年美国大选的例子。整个世界都在议论这两件大事，因为它们引出了另一个更为重要的问题，也就是人工智能正在以政府机构无法追赶的速度改变我们的世界。

总的来说，目前人工智能的成就既十分积极也非常复杂。正如谷歌中国前任总裁，人工智能技术杰出投资人李开复博士所说，“人工智能是新时代的“电力”，它将改变世界。然而，人工智能虽然惠及了人类活动的各方面，却也给就业、各产业以及人类的生活方式带来了有史以来最大的破坏，世界各地的企业和政府仍未对此做好准备。”

四、人工智能超级公司的影响力

阿里巴巴集团创始人、执行董事马云说，“数字时代的本质: 数字技术不是为了利己，而是为了利他；不在于赋权于己，而在于给他人创造机会。数字技术不应只让少数的人和国家受益，更应惠及世界上大多数的人。人工智能优于人类之处并不是引起关注的根本原因。问题是人类是否有足够的智慧，因为决定未来的不是智能，而是在背后操控它的人类智慧。

如果说工业时代将人类变成了机器，那么数字时代则将机器变成了人类。我相信在将来，机器将会变得更像机器，人类也会变得更像人类。机器不能取代人类，但能成为人类的合作伙伴。科技不是要让人类失业，而是要解放人类的双手，让人类可以做更有价值的事情。”

42集团首席执行官肖鹏也说，“今天，人工智能引发了与20年前互联网热潮相似的积极情绪。在20世纪90年代，互联网的发展引发了一场前所未有的科技革命，彻底改变了人们的生活方式——不管是阅读新闻、管理银行。在接下来的20年里，目睹了政策制定者在努力规范不断变化的全球互联网平台，使得全球几十亿人能够快速交换思想、商品和服务。”

自1969年计算机首次彼此相连后，信息技术经过了三个主要发展阶段。第一个阶段可以被描述成一个分散创新时期，在此期间，许多发明都是按照开源原则实现的。

但在第二阶段，信息技术应用的商业价值得到了发掘，这促进了研究的监管和商业化。后来，这导致了垄断的产生。第一个垄断企业是微软公司，其操作系统Windows与IE浏览器相互捆绑。

20年后，随着线上搜索引擎和在线交易平台的诞生，新的垄断出现了，如亚马逊、易趣和Alphabet。这些公司在极短的时间内就获得了成功。如今，谷歌每秒处理来自全世界的4万次请求，每天执行35亿次搜索，每年处理1.2万亿次请求。

数字广告的销售开启了现金流入的闸门。新的垄断公司使用一部分资金探索新方向、提供新服务、做新业务: 谷歌公司不断开发出Gmail、Chrome浏览器、用于手持设备的安卓操作系统、谷歌地球、用于网络活动分析的Google Analytics、用于视频分享的YouTube、Waze 导航，以及最后的DeepMind人工智能项目。

发展的第三阶段始于21世纪初，以全球最成功的社交网络脸书(Facebook)的诞生为标志。它最初的使命是“让世界更加开放，更加紧密相连”。为此，该公司向全球开放了其社交网络，而不考虑国籍、语言或个人兴趣爱好。此外，脸书用户还能向平台上传自己的设计和应用。借助这些特性，该公司在短时间内吸引了大量用户，用户数量从2008年的1亿增长到2012年的10亿，再到2019年第一季度末的24亿。

这些数字十分惊人。但真正的问题不在于用户的数量，而在于借助人工智能影响人们的能力。与行为科学和心理学最近的发现相反，如今个人信息不仅包括某人的名字、年龄和社会关系，还包括他的喜好——轻轻一点“喜欢”按钮，就完成了自我报告。在当前环境下，由于缺乏清晰的法律规则限制对开放数据的深度分析，技术大牛一路绿灯，得以持续改进方法以操控人们的态度，如将其导向特定的消费决策。

         令人惊讶的是，超级公司从不掩饰它们的能力。这反映在以下声明中: “谷歌帮助人们找到所需的商品，而脸书则帮助他们决定需要什么。”超级公司的影响力与日俱增，从一个领域扩展到另一个。毋庸置疑，超级公司将继续发展。如今世界上最富有的8个人中有6个人是科技公司创始人，他们的财富来自计算机软件、电信、电商、社交网络和商业分析。

随着人工智能时代的到来，不管愿意与否，有意还是无意，经济和政治系统必须经历巨大的改变。在这个时代，用户将获得来自谷歌、亚马逊和其他超级公司的定制服务。在它们的呼叫中心也将使用机器人。在3D打印商店中，这些公司将能在3D打印机上打印任何东西，包括未来用于移植的人类器官。而虚拟助手，将由全球计算机网络提供，为人们安排工作和休闲活动。

这一趋势的一个可能成果是智能检测系统的建立。这不仅将存储有关人们偏好和活动的信息，还能成功预测行为，甚至塑造全球消费者的欲望和意图。

如果没有来自阿里巴巴、亚马逊、苹果、脸书、谷歌、华为、IBM、微软和英伟达等超级公司的产品和服务，世界将变得不可想象。这些科技巨头的创始人将继续作为世界上最富有的人，吸引全世界的关注。由于超级巨头和科技公司使用了基于人工智能的最先进的解决方案，并不断向数字化转型，它们将能深入分析个人的感知，并继续在全球积累影响力。

五、阿西洛马人工智能原则

在当今世界，没有什么比人工智能更充满机遇和风险了。随着新的应用方法被发现，未来的轮廓也变得越来越复杂和不可预测。

正如人们所了解的那样，人工智能在医疗系统中的发展，预示了这样的未来: 潜在疾病甚至在诊断前就被预测和治愈。然而，借助相同的分析，人们也能模拟与未来相关的负性场景。即便能够在人工智能的帮助下研发药物以治疗任何疾病，但是这个技术被用于合成强力毒药的可能性也依然存在。在纳米机器人的帮助下治疗遗传疾病的技术，将可能导致对整个国家基因组的秘密干预。

虚拟助手的发展轨迹看起来也有同样的矛盾。它们已与人们如影随形，并能比以往更好地理解人们的信仰、意图、欲望和情感。所有这些都将目标定位提升到了一个全新的水平。虽然这个世界是由消费控制的，但虚拟助手的发展可能将人们限制在一个不断缩小的诱惑螺旋中，而受益者则是高科技公司。

人工智能在金融领域的应用，已使人们能在短短几秒钟内获得贷款，但贷款条件取决于对借款人可靠性的评估。在这样的现实中，信用评分的重要性上升到了一个全新的水平，这将形成相当严格的社会规范。那些希望获得更多机会的人，将学会尽可能让自己变得可预测，并遵守信用评估的行为算法。这难道不会使社会不平等空前加剧吗?

在现代城市中应用智能技术的好处毋庸置疑。更安全的交通，更少的犯罪，优美的环境，以及高质量、个性化的社会服务，这些必然会增加人们的幸福感。但机会越多，失败的代价也就越大。智慧城市的统一基础设施管理系统必须得到最大限度的保护，以免受网络攻击和技术问题的影响。这是因为失败将立即引发社会焦虑，还可能导致大量人员伤亡和破坏。

科技巨头和超级公司将继续在全球积累影响力。由于它们使用了基于人工智能的最先进的解决方案，并不断向数字化转型，它们将能深入分析个人的感知。

随着人工智能领域的霸主之争愈演愈烈，我们的世界比任何时候都更需要新的数字时代国际法，以奠定国际社会的基础。由于人工智能的发展难以预测，这些定律必须植根于基本公理，灵活地适应数字时代快速变化的现实。这就是为什么包括埃隆·马斯克和斯蒂芬·霍金在内的许多人都警告，人工智能失控的发展将对人类的未来构成威胁。当然，任何自主人工智能系统，不仅仅是武器，都应该经过联合国批准并接受严格监管框架的约束。

事实上，制定人工智能法规最恰当、最合理的途径，是制定一个适用于所有这类系统的普遍法律框架。当然，一个至关重要的方面是，人工智能系统的开发和使用将必须完全安全。

这方面有哪些进展呢？撰写于斯坦福大学，《2030年的人工智能与生活》报告提出了以下建议，为人工智能的法律监管铺平了道路。

(1) 确定一条途径，用于在各级管理部门积累人工智能领域的专业技术知识。

(2) 消除主观和实际的障碍，以促进有关人工智能系统的正确功能、安全性、保密性和社会影响方面的研究。

(3) 增加跨学科研究的公共和私人资助，以研究人工智能对社会的影响。

2017年，举办于加利福尼亚州太平洋丛林市的有关人工智能机遇与挑战的会议，可被视为这方面最重要的举措之一。雷·库兹韦尔、埃隆·马斯克、斯蒂芬·霍金、德米斯·哈萨比斯、扬·勒昆等数十位国际公认的人工智能及相关领域的科学家和专家们参加了这次活动。他们采用了“阿西洛马人工智能原则”，为这一领域的伦理研究奠定了基础。

(1) 人工智能研究的目标应该是建立有益的智能。

(2) 投资人工智能时，应资助那些确保其有益性的研究，以解决在计算机科学、经济、法律、伦理和社会研究等领域的棘手问题。

①如何使未来人工智能系统高度健全，从而不会发生故障和被入侵？

②如何在维持人民资源和目标的同时，通过自动化增进繁荣?

③随着人工智能的发展，如何更公平和有效地修正法律系统以及管理人工智能相关的风险？

④人工智能应该遵守哪些价值观？它的法律和伦理状态应当是什么？

(3) 人工智能研究人员和政策制定者之间，应形成积极、有建设性的沟通。

(4) 人工智能的研究者和开发者之间应该培养一种合作、信任和透明的文化。

(5) 开发人工智能系统的团队应积极相互合作，以避免在达成安全标准上偷工减料。

(6) 人工智能系统应当是安全的，且是可适用的和可实行的。

(7) 如果一个人工智能系统引起损害，应有办法查明原因。

(8) 在司法裁决中，但凡涉及自主研制系统，都应提供一个有说服力的解释，并由一个有胜任力的人员进行审计。

(9) 高级人工智能系统的设计者和建设者是系统利用、滥用和行动的权益方，他们有责任和机会塑造这些道德含义。

(10) 应该设计高度自主的人工智能系统，以确保其目标和行为在整个运行过程中与人类价值观相一致。

(11) 人工智能系统的设计和运作应符合人类尊严、权利、自由和文化多样性的理念。

(12) 既然人工智能系统能分析和利用数据，人们应该有权利存取、管理和控制产生的数据。

(13) 人工智能在个人数据的应用不能无理缩短人们的实际或感知的自由。

(14) 人工智能技术应该尽可能地使更多人受益和授权。

(15) 人工智能创造的经济繁荣应该广泛地共享，造福全人类。

(16) 人类应该选择如何以及是否代表人工智能做决策，用来实现人为目标。

(17) 通过控制高级人工智能系统所实现的权力，应尊重和改善健康社会所基于的社会和公民进程，而不是颠覆。

(18) 应该避免一个使用致命自主武器的军备竞赛。

(19) 因为没有达成共识，应该强烈避免关于未来人工智能性能的假设上限。

(20) 高级人工智能可以代表地球上生命历史的深奥变化，应该计划和管理相应的护理和资源。

(21) 对于人工智能造成的风险，尤其是那些灾难性的和存在价值性的风险，必须付出努力，进行规划和缓解风险。

(22) 那些会递归地自我改进和自我复制的人工智能系统若能迅速增加质量或数量, 必须服从严格的安全控制措施。

(23) 超级智能应当只为广泛分享道德理想而发展，是为了全人类而不是为了一个国家或者一个组织的利益。

阿西洛马人工智能原则涉及的重要指导方针，将在技术进步的同时确保全球安全。首先，人工智能研究者和政治家之间需要合作。显然，这种互动需要国际平台的支持，其规模和权威性应确保相关各方的积极参与。该组织应参与全球监管体系的创建，以应对人工智能的不公平使用可能造成的威胁，维护国际安全。

六、总结

对国家、对社会、对个人来说，如何迎接由人工智能主导的这个时代？

我们需要认识到，人类正在迈出实际运用人工智能应用和系统的第一步。极端事件虽有可能发生，但概率极小。我们不能以此为借口阻碍发展，袖手旁观。

我们必须真正明白并铭记，从今天开始，人工智能将成为世界的主宰。

正如软银集团董事长兼总裁孙正义所说，“人工智能掀开了人类历史的新篇章，为关键挑战和风险寻求答案。我们生活在一个非常有趣的时代，正在见证历史上这一全球变化的开端，同时也可以引领这一变化。”

本文内容节选自如下图书：

书号: 9787302556695

出版单位:清华大学出版社

哈萨克斯坦前总理卡里姆•马西莫夫撰写

卡里姆·马西莫夫（KarimMassimov），于1965年出生，哈萨克斯坦前总理，2016年起担任哈萨克斯坦国家安全委员会主席。他曾先后就读于北京语言学院、武汉大学法学院和哈萨克斯坦国家管理学院，学习经济学和国际法，并获经济学博士学位，懂得英语、汉语、哈萨克语、俄罗斯语及阿拉伯语。